Aunque la asistencia del área ha sido documentada desde la Edad del Bronce, la formación del primer núcleo habitado se atestigua alrededor de los siglos IX-VIII a.C.
La proximidad del pueblo de los peucetios a la colonia griega de Metaponto lo hizo rodeado por una imponente fortificación, que data del siglo IV al III. La razón puede haber sido el estado semi-conflictivo permanente entre las ciudades griegas y los centros itálicos o las guerras recurrentes, como las guerras epirotas, samnitas y púnicas. Los muros se mantuvieron eficientes incluso al final de la era republicana. Una sección de ella sobrevive hoy, visible en un pequeño parque arqueológico urbano.
La romanización condujo a un cambio en la exploración del territorio, con una reducción en el número de granjas y, por lo tanto, en la población. Se inauguró un edificio público en la ciudad, del cual quedan un telamon y un mosaico en el piso, recordando la llegada de 4 magistrados de Roma. El topónimo de Civitas Severiana, reportado en documentos medievales, sugiere un antiguo nombre romano derivado, como para otros sitios imperiales lucanos, de topónimos relacionados con vastas agregaciones de ciudades establecidas en el territorio, tal vez Gens Severa o Severiana, de origen poco clara. Así, Montescaglioso pierde importancia, el área habitada se contrae y en el territorio insisten casas rústicas, administradas por esclavos, que han sido investigadas arqueológicamente en los últimos años. Al comienzo del período medieval, la existencia de Montescaglioso está atestiguada en una serie de documentos: ya en el siglo VI el monje Guidone, en su viaje descrito durante la guerra gótico-bizantina, menciona la ciudad; en 893, la ciudad es recordada como "Castrum Montis Caveosi", en un documento de la abadía longobarda de S. Vincenzo al Volturno.
El dominio normando en el sur de Italia comenzó a mediados del siglo XI. La presencia normanda favorece el desarrollo urbano y el aumento demográfico de la ciudad, así como el establecimiento de una gran comunidad monástica benedictina que, con la abadía de S. Michele Arcangelo, marcará la historia de Montescaglioso hasta el siglo XIX.
Otros monasterios también se establecieron en Montescaglioso. A mediados del siglo XV, los agustinos construyeron su convento. A finales del siglo XVI, los sacerdotes capuchinos se establecieron y construyeron su convento en una colina con vistas a la ciudad. Finalmente, en la primera mitad del siglo XVII, hay un monasterio femenino, la SS. Concepción, que adopta la regla benedictina. Con la presencia de cuatro complejos monásticos, de los cuales la Abadía Benedictina de San Michele Arcangelo sigue siendo la más considerable, la ciudad de Montescaglioso se ha ganado la definición de "Ciudad de los Monasterios".
El castillo normando de Montescaglioso fue construido por la familia normanda de Macabeo a fines del siglo XI para controlar la Porta Maggiore (una de las 6 existentes), organizada alrededor de un patio al que se accede mediante un portal flanqueado por una de las dos torres sobrevivientes. La torre central, con un plan cuadrangular, es irreconocible por una serie de ajustes modernos. La iglesia de S. Caterina estaba unida al castillo y ahora se usa como bar.
La única de las seis puertas de acceso que quedan en pie es Porta Sant'Angelo, que se puede admirar en la plaza frente a la Abadía de San Michele. La más importante, Porta Maggiore, fue demolida en 1868. El muro normando, de hecho, permaneció intacto hasta mediados del siglo XIX, cuando los muros fueran demolidos.
Montescaglioso comparte el Parque Regional de la Murgia Materana con Matera, que se extiende sobre unas 8000 hectáreas, caracterizadas por la presencia de profundos barrancos, donde el hombre ha excavado aldeas enteras, corrales, cisternas y, sobre todo, iglesias rupestres. En el interior del territorio de Montescaglioso, se encuentran las iglesias rupestres más antiguas, probablemente debido al hecho de que la presencia bizantina continuó ininterrumpidamente durante toda la Alta Edad Media.
